PersonalQuery-Benchmark:Evaluating Retrieval Robustness to Personalized User Expression Differences
个性化查询基准:评估检索对用户表达差异的鲁棒性
🧭 个性化检索鲁棒性评测基准
Monash University · University of Queensland · Southeast University
构建首个个性化查询表达差异基准 PQB,揭示检索效果高不等于对句法与书写错误鲁棒
📌 工作参考价值(4 点)
- 构建用户表达差异测试集:从真实用户历史文本中挖掘个性化句法习惯和常见书写错误,生成同一信息需求的多版本 query,用于评估检索/排序模型在真实用户表达波动下的稳定性。
- 评估模型鲁棒性与效果分离:不要只看整体 nDCG/MRR,需单独报告模型对句法变化和拼写错误变化的敏感度;高效果模型可能对用户表达变化更脆弱,在电商搜索中直接导致长尾用户流失。
- 用 LLM 生成 query 变体 + 人工校验:可用 LLM 基于用户历史文本生成个性化句法改写和拼写错误变体,再用 LLM 评估与少量人工标注做质量校验,低成本构造大规模鲁棒性测试集。
- 检索架构选择参考:论文覆盖 lexical、learned sparse、dense bi-encoder、late-interaction、hybrid 五类检索架构,其鲁棒性差异可作为电商搜索技术选型的参考——需根据业务对用户输入噪声的容忍度选择合适架构。